Mašine će same birati koga napadaju?! UN traži hitnu zabranu, strahuje se od najgoreg
Dodajte Kurir u vaš Google izborUjedinjene nacije i Međunarodni komitet Crvenog krsta ponovo upozoravaju da svet mora hitno da postavi granice za oružje koje može samostalno da bira i napada mete. Generalni sekretar UN Antonio Gutereš i predsednica Međunarodnog komiteta Crvenog krsta Mirjana Spoljaric poručili su da su potrebni hitni pregovori o pravno obavezujućim pravilima.
Mašina bira metu umesto čoveka
Suština problema je u tome što autonomni sistemi mogu, nakon aktiviranja, da koriste senzore i softver kako bi sami identifikovali određene ciljeve i odlučili kada će upotrebiti silu. Crveni krst ovakve sisteme opisuje kao oružje koje može samostalno da izabere i primeni silu na metu bez ljudske intervencije, što otvara potpuno novo pitanje odgovornosti u ratu.
Pritom, ovo nije isto što i svako oružje koje koristi AI. Postoji velika razlika između sistema koji čoveku pomaže da analizira podatke i oružja koje nakon aktiviranja može samo da odluči protiv koga će upotrebiti smrtonosnu silu.
UN traži jasna pravila
Gutereš je još ranije pozivao države da do 2026. godine uspostave pravno obavezujući okvir za autonomne oružane sisteme, a sada je poruka dodatno pojačana. UN i Crveni krst traže da se uvedu jasne zabrane za određene kategorije sistema, kao i stroga ograničenja za ostale.
Problem je, međutim, što se države još nisu usaglasile oko toga koliko bi ta pravila trebalo da budu stroga. Pregovori o ovoj temi traju još od 2014. godine u okviru Konvencije UN o određenom konvencionalnom naoružanju, ali tehnološki razvoj napreduje mnogo brže od diplomatije.
Najveći problem je odgovornost
Zamislite situaciju u kojoj autonomni sistem pogrešno prepozna osobu kao metu. Kod klasičnog oružja postoji lanac ljudi koji donose odluku, dok kod potpuno autonomnog sistema nastaje mnogo komplikovanije pitanje: ko je odgovoran ako algoritam napravi fatalnu grešku?
Crveni krst upozorava upravo na taj problem. Autonomni sistemi mogu da otežaju poštovanje osnovnih pravila međunarodnog humanitarnog prava, uključujući obavezu razlikovanja civila od boraca, a istovremeno mogu dodatno otežati utvrđivanje odgovornosti za eventualne ratne zločine.
Nisu svi autonomni sistemi isti
Važno je ne stvarati utisak da vojske već imaju robote koji potpuno samostalno vode ratove. Autonomne funkcije već postoje u pojedinim vojnim sistemima, uključujući neke brodske protivraketne sisteme, ali prema Reutersu nema potvrde da su takvi potpuno autonomni sistemi do sada korišćeni za direktno ciljanje ljudi.
Istovremeno, AI se sve više koristi za različite pomoćne vojne zadatke, poput analize obaveštajnih podataka i identifikovanja potencijalnih meta. Baš zbog toga stručnjaci smatraju da je potrebno regulisati tehnologiju pre nego što mogućnosti sistema dodatno porastu.
Tehnologija napreduje brže od zakona
Jedan od najvećih izazova jeste činjenica da se sposobnosti AI sistema menjaju iz godine u godinu. Ono što je danas eksperimentalno, sutra može postati deo operativnog vojnog sistema, dok međunarodni sporazumi zahtevaju godine pregovora.
ICRC zato traži nove pravno obavezujuće međunarodne norme kojima bi bili zabranjeni nepredvidivi autonomni sistemi, kao i oni namenjeni ili korišćeni za primenu sile protiv ljudi. Za ostale sisteme predlažu se stroga ograničenja.
Slede važni međunarodni pregovori
Tema će ponovo biti u centru pažnje na međunarodnim sastancima u Ženevi, a velika reviziona konferencija o Konvenciji o određenom konvencionalnom naoružanju planirana je za novembar. Međutim, dogovor neće biti jednostavan jer pojedine velike vojne sile smatraju da postojeće međunarodno pravo već pruža dovoljan okvir.
Zato se danas vodi svojevrsna trka sa vremenom. Jedna strana želi da pravila budu uspostavljena pre nego što autonomno oružje postane još sposobnije, dok druge države ne žele da ograniče razvoj tehnologije koja bi mogla da donese vojnu prednost.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.